Hải cầu xám ăn nhiều loại cá, chủ yếu là sinh vật đáy hoặc sinh vật sống gần đáy, được chúng bắt ở độ sâu đến 70 m (230 ft) hoặc nhiều hơn. Lươn cát (Ammodytes spp) (một số loài cá trong các chi Hyperoplus, Gymnammodytes hay Ammodytes) rất quan trọng trong chế độ ăn uống của chúng ở nhiều địa phương. Cod và các gadidae khác, cá bẹt, cá trích[6] và cá đuối[7] cũng quan trọng theo địa phương. Tuy nhiên, điều rõ ràng là hải cẩu xám sẵn sàng ăn sinh vật gì có sẵn, bao gồm cả bạch tuộc[8] và tôm hùm[9]. Lượng thức ăn trung bình cần cho mỗi cá thể trong một ngày ước khoảng 5 kg (11 lb), dù hải cẩu xám không phải ăn hàng ngày và chúng nhịn đói trong mùa sinh sản.